Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

получателей. Следовательно, богатство информации порождает бедность внимания и необходимость эффективно распределять это внимание между избыточным количеством источников информации, которые могут его потреблять." 59

В золотой век вещательного телевидения Саймон убедился, что внимание - ограниченный ресурс, а информации - постоянно растущее изобилие. Большую часть стоимости информации составляют затраты, которые несет получатель, утверждал Саймон; стоимость "Нью-Йорк Таймс" - это не только цена газеты, но и время, потраченное на ее чтение. Стимулы СМИ и читателя не всегда совпадали.

Обилие информации превратилось в настоящий потоп. Интернет и наши устройства доставляют информацию двадцать четыре часа в сутки, семь дней в неделю. Новые демократичные технологии искусственного интеллекта снизили стоимость создания контента - даже видео - практически до нуля. С ростом экономики внимания растет и дефицит внимания.

Саймон предвидел, в каком направлении будут развиваться события, и начал активно выступать за создание более совершенных компьютерных систем, которые помогут людям обрабатывать обилие информации, с которой им вскоре придется столкнуться. По его мнению, информационно-процессорные системы могли бы снизить нагрузку на организацию или отдельного человека, если бы они уделяли первостепенное внимание эффективной работе с информацией. Мы все еще ждем их появления.

Коллеги Саймона скептически относились к компьютерной фильтрации: важно было то, что машины не пропускали. Карл Дойч, профессор государственного управления в Гарварде, был обеспокоен тем, что фильтрация может привести к тому, что люди будут видеть только то, к чему они относятся благосклонно, что приведет к созданию плохой политики или неоптимальному организационному поведению. Что, если процесс фильтрации не допускает критику или вызов преобладающему консенсусу? Мартин Шубик, профессор экономики из Йельского университета, задается вопросом о развитии компьютерных технологий и их потенциальном влиянии на демократию: "Уже через несколько лет можно будет практически мгновенно проводить референдум по многим политическим вопросам", - говорит он. "Это может стать техническим триумфом и социальной катастрофой, если нестабильность будет вызвана мгновенной реакцией общества на не до конца понятные дела, усиленной быстрой обратной связью".

Саймон, Дойч и Шубик обсуждали одну из главных проблем социальных сетей за десятилетия до появления онлайн-платформ: курацию контента, искусство решать, какая информация дойдет до кого. Сегодняшнее алгоритмическое курирование - это ключ к влиянию и формированию консенсуса, и все же его затмевает модерация контента, которая пытается отсеять "хорошее" от "плохого". 60

Принцип дизайна "внимание ограничено и должно быть сохранено" сильно отличается от принципа "чем больше информации, тем лучше". Дизайнеры и специалисты по этике дизайна утверждают, что системы курирования должны помогать нам сосредоточиться на важных вещах или, как минимум, на тех, которые мы намеренно выбираем (даже если это таблоидный контент из супермаркета). Среди тех, кто занимается дизайном технологических продуктов, бытует поговорка: "Дьявол кроется в настройках". Нейтральной ленты не существует; сообщения должны быть как-то взвешены и упорядочены. Но как? Должна ли ранняя популярность быть самым важным фактором? Если да, то у влиятельных лиц и других авторов появляется стимул использовать сочетание сенсационных высказываний с фальшивыми аккаунтами или скоординированной вовлеченностью, чтобы попытаться сделать что-то популярным. Должны ли алгоритмы просто по умолчанию использовать обратную хронологическую ленту, в которой на первое место ставится самое последнее сообщение из тех, за которыми следят? Если да, то это будет стимулировать частые публикации и количество над качеством.

Сейчас уведомления о сенсационных материалах, толпы преследователей главного героя или ленты, поощряющие рассылку спама, идут по умолчанию. Но три широких изменения в дизайне могут смягчить эту разрушительную динамику и свести к минимуму риск того, что технический триумф превратится в социальную катастрофу. Первое - применить рекомендации Саймона к системам курирования, которые направляют наше внимание. Второе - передает больше контроля непосредственно в руки пользователя. И третье создает трение: замедляет вирусность, чтобы факты могли догнать слухи (что, по иронии судьбы, стремилась делать журналистика, когда памфлеты превращались в газеты).

Лопнувшие пузырьки

Ранее мы рассмотрели, как рекомендательные алгоритмы создавали новые социальные сети, соединяя людей друг с другом в закрытых и открытых толпах. В те ранние дни создания сообществ очень мало внимания уделялось тому, что и кому рекомендовалось, и в результате появились заговорщические культы вроде QAnon. Сейчас платформы лучше осознают непредвиденные последствия того, что они предлагают, но вопрос о том, как бороться с разрушением консенсусной реальности, не имеет простых ответов. Недавние исследования YouTube показывают, что потребление экстремального контента теперь в большей степени зависит от активного спроса, а не от алгоритма, направляющего наивных и невольных пользователей в темное будущее. 61

Существуют проблемы и помимо откровенного экстремизма - например, поляризация. Совместный исследовательский проект социологов и исследователей Meta, получивших доступ к внутренним данным платформы, обнаружил доказательства того, что рекомендации и курирование действительно способствуют созданию эхо-камер и идеологической сегрегации. 62. Тем не менее, когда социологи провели эксперименты на Facebook во время выборов 2020 года, они обнаружили, что настройка курирования не является волшебной пулей для деполяризации: вмешательства, направленные на изменение того, что видят пользователи, например, переключение их лент с алгоритмического курирования на обратный хронологический порядок или уменьшение количества контента, который они видят из источников "единомышленников", мало что дали. 63 Кроме того, уменьшение преобладания политического контента в лентах партизан сократило время их пребывания на Facebook, но не привело к их деполяризации.

После многих лет алгоритмического и социального подкрепления некоторые люди, возможно, просто слишком укоренились в реальности: их сети установлены; их убеждения устоялись; они наслаждаются временем, проведенным с членами своей фракции. Исследования проводились в довольно ограниченный период времени, результаты содержат много нюансов, и авторы предостерегают от слишком широкого прочтения и огульных обобщений. Исследования влияния алгоритмического курирования, безусловно, должны продолжаться, однако само по себе исправление лент не станет панацеей от более глубоких проблем поляризации и идеологической сегрегации. 64

Но есть еще пути для исследования. Многие исследователи социальных сетей по-прежнему считают, что рекомендательные системы могут быть разработаны для деполяризации или преодоления разногласий между группами. 65 Сигналы вовлеченности могут быть менее весомыми при выборе материалов или, по крайней мере, в сочетании с другими показателями. 66 Цивилизованность может стать более весомой, особенно в отношении политических тем, а не нравоучительных высказываний и сенсаций, которые часто поднимаются сегодня. 67 Новостной контент может по умолчанию иметь высокую степень авторитетности или достоверности. 68 Говорить о том, что одни источники более надежны, чем другие, стало спорно, но это факт; сами пользователи могли бы давать сигналы о том, какие источники заслуживают доверия, используя краудсорсинг. 69

Переосмысление курирования выходит за рамки предложений по содержанию. Николас Кристакис, профессор социологии и врач из Йельского университета, давно утверждает, что то, с кем мы связаны, имеет огромное значение и что можно сделать